태그

결국 HBM이란 무엇인가? 엔비디아보다 먼저 알아야 하는 AI 시대 핵심 반도체

 요즘 반도체 뉴스를 보다 보면, HBM이라는 단어를 하루에도 몇 번씩 보게 됩니다.

"SK하이닉스 HBM 공급 확대"

"삼성전자 HBM4 승부수"

"엔비디아 차세대 GPU에 HBM 탑재"

불과 몇 년 전만 해도 업계에서만 쓰이던 기술이, 이제는 경제 뉴스의 중심에 섰습니다.

그런데 이상한 점이 있습니다.

HBM이라는 단어는 매일 나오는데, 정작 HBM이 왜 중요한지 쉽게 설명한 글은 많지 않습니다.

대부분은 기술 용어만 가득하거나, 주식 이야기만 합니다.

하지만 HBM을 이해하지 못하면, AI 산업도, 엔비디아도, SK하이닉스도 제대로 이해하기 어렵습니다.

지금 AI 산업은 GPU가 아니라, GPU에게 데이터를 먹여주는 HBM 때문에 성장 속도가 결정되고 있기 때문입니다.

이 글에서는 어려운 반도체 용어 대신 생활 속 비유를 사용해, HBM이 무엇인지, 왜 갑자기 세상을 바꾼 기술이 됐는지 가장 쉽게 설명해보겠습니다.

HBM이란 무엇인가

HBM은 High Bandwidth Memory, 우리말로 고대역폭 메모리입니다.

이름은 어렵지만, 원리는 생각보다 단순합니다.

먼저 컴퓨터가 어떻게 일하는지부터 생각해보겠습니다.

컴퓨터에는 크게 두 가지 역할이 있습니다.

하나는 계산하는 역할입니다.

다른 하나는 계산할 데이터를 계속 공급하는 역할입니다.

계산은 CPU나 GPU가 담당합니다.

데이터를 공급하는 것은 메모리입니다.

여기까지는 우리가 알고 있는 일반 컴퓨터와 같습니다.

문제는 AI 시대가 오면서 발생했습니다.

GPU는 엄청 빨라졌는데, 메모리는 그대로였다

AI는 사람이 상상하는 것보다 훨씬 많은 계산을 합니다.

예를 들어 ChatGPT가 질문 하나에 답하는 과정에서도, 엄청난 양의 데이터를 동시에 읽고 계산합니다.

이 계산은 GPU가 담당합니다.

그런데 GPU 성능은 몇 년 사이 폭발적으로 좋아졌습니다.

문제는 메모리였습니다.

GPU는 더 빨리 계산할 수 있는데, 메모리가 데이터를 충분히 보내주지 못했습니다.

이 상황을 비유로 설명해보겠습니다.

세계 최고의 요리사가 있습니다.

요리사는 10초 만에 스테이크 하나를 만들 수 있습니다.

그런데 재료를 가져다주는 직원이 한 명뿐입니다.

직원은 1분에 한 번씩만 고기를 가져옵니다.

그러면 요리사는 대부분의 시간을 기다립니다.

실력이 부족해서가 아닙니다.

재료가 늦게 오기 때문입니다.

GPU도 똑같습니다.

GPU는 계속 계산할 수 있지만, 메모리가 데이터를 늦게 보내면 아무 일도 하지 못한 채 기다리게 됩니다.

이 현상을 병목이라고 부릅니다.

AI 시대에는 이 병목이 가장 큰 문제가 되기 시작했습니다.

HBM은 무엇을 바꿨을까

HBM은 GPU 성능을 높인 기술이 아닙니다.

GPU가 쉬지 않고 일할 수 있도록 만든 기술입니다.

많은 사람이 HBM을 "엄청 빠른 메모리"라고 생각합니다.

엄밀히 말하면 조금 다릅니다.

HBM은 데이터 하나를 더 빨리 보내는 것이 아니라, 한 번에 훨씬 많은 데이터를 보내는 메모리입니다.

도로를 떠올려보겠습니다.

왕복 2차선 도로와 왕복 12차선 고속도로가 있습니다.

자동차 최고속도는 둘 다 시속 100km입니다.

속도는 같습니다.

하지만 같은 1시간 동안 지나갈 수 있는 자동차 수는 완전히 다릅니다.

12차선 도로가 훨씬 많은 자동차를 보낼 수 있습니다.

비교 항목 2차선 도로 12차선 고속도로
자동차 최고속도 시속 100km 시속 100km
1시간 동안 통과 가능한 차량 수 적음 훨씬 많음

HBM도 같은 원리입니다.

데이터가 이동하는 속도를 높인 것이 아니라, 데이터가 지나가는 길 자체를 엄청나게 넓힌 것입니다.

그래서 이름도 High Bandwidth, 즉 "넓은 데이터 통로"라는 뜻이 붙었습니다.

일반 D램과 HBM은 무엇이 다를까

HBM을 이해하려면, 기존 D램과 비교하면 쉽습니다.

기존 D램은 단독주택이 늘어서 있는 마을과 비슷합니다.

집은 계속 옆으로 늘어납니다.

사람이 이동하려면 거리가 길어집니다.

HBM은 다릅니다.

단독주택 대신 초고층 아파트를 지었습니다.

같은 땅에서도 훨씬 많은 사람이 살 수 있습니다.

메모리도 마찬가지입니다.

D램 여러 장을 위로 차곡차곡 쌓습니다.

그러면 공간은 줄고, 이동 거리도 짧아집니다.

하지만 여기서 문제가 하나 생깁니다.

16층 사람이 계단으로만 내려온다면 아무 의미가 없습니다.

그래서 HBM에는 TSV(Through Silicon Via)라는 기술이 들어갑니다.

이름은 어렵지만 원리는 간단합니다.

아파트 한가운데 초고속 엘리베이터를 설치한 것입니다.

16층, 15층, 14층 사람들이 동시에 엘리베이터를 타고 내려올 수 있습니다.

HBM도 여러 층의 메모리가 동시에 GPU와 데이터를 주고받을 수 있도록 만든 구조입니다.

이 작은 차이가 AI 성능을 크게 바꿨습니다.

HBM은 왜 이렇게 비쌀까

HBM은 일반 D램보다 훨씬 비쌉니다.

많은 사람이 이유를 "층을 많이 쌓아서"라고 생각합니다.

하지만 진짜 이유는 불량률입니다.

HBM은 여러 장의 D램을 아주 얇게 깎아 겹겹이 쌓습니다.

그리고 높은 열과 압력을 가해 하나의 제품으로 만듭니다.

문제는 아주 작은 먼지 하나, 미세한 휨 하나만 생겨도 전체 제품이 불량이 될 수 있다는 점입니다.

예를 들어 12장을 쌓았는데 맨 위 한 장만 문제가 생겨도, 아래 11장까지 모두 사용할 수 없습니다.

모두 버려야 합니다.

일반 D램보다 제조 난도가 훨씬 높은 이유입니다.

그래서 HBM은 기술력뿐 아니라 생산 경험도 매우 중요합니다.

많이 만들어본 회사일수록 불량률을 낮출 수 있기 때문입니다.

HBM 시장은 누가 이끌고 있을까

현재 HBM 시장은 사실상 세 회사가 경쟁하고 있습니다.

SK하이닉스, 삼성전자, 마이크론입니다.

이 가운데 가장 앞서 있다는 평가를 받는 곳은 SK하이닉스입니다.

많은 사람이 "원래 메모리는 삼성전자가 세계 1위였는데, 왜 HBM에서는 SK하이닉스가 앞섰을까"라는 의문을 가집니다.

답은 의외로 단순합니다.

HBM을 가장 오래 준비한 회사가 SK하이닉스였기 때문입니다.

HBM은 처음 나왔을 때만 해도, 지금처럼 주목받는 기술이 아니었습니다.

오히려 업계에서는 "너무 비싸다", "만들기 어렵다", "수요가 크지 않을 것이다"라는 평가가 많았습니다.

당시에는 스마트폰과 PC 시장이 메모리 산업의 중심이었기 때문에, 일반 D램을 많이 만드는 것이 훨씬 중요했습니다.

하지만 SK하이닉스는 달랐습니다.

시장이 크지 않아도 HBM 연구를 계속 이어갔습니다.

그리고 몇 년 뒤 생성형 AI 시대가 시작됐습니다.

GPU는 갑자기 엄청난 양의 데이터를 필요로 하기 시작했고, HBM은 선택이 아니라 필수가 됐습니다.

한때는 과도한 기술이라고 평가받던 제품이, 지금은 AI 산업에서 가장 부족한 반도체가 된 것입니다.

왜 엔비디아는 HBM 없이는 GPU를 만들 수 없을까

엔비디아를 떠올리면 대부분 GPU를 생각합니다.

하지만 AI 서버에서 GPU만 중요한 것은 아닙니다.

GPU 옆에는 반드시 HBM이 함께 들어갑니다.

쉽게 말하면, GPU는 자동차 엔진입니다.

HBM은 연료탱크가 아닙니다.

연료를 초당 엄청난 속도로 공급하는 주유 시스템입니다.

엔진이 아무리 좋아도 연료가 제대로 공급되지 않으면, 최고 성능을 낼 수 없습니다.

GPU도 같습니다.

계산 능력이 아무리 뛰어나도, 데이터를 제때 공급받지 못하면 기다릴 수밖에 없습니다.

그래서 AI 업계에서는 이런 말이 자주 나옵니다.

"GPU의 성능은 HBM이 결정한다."

실제로 엔비디아의 최신 AI 가속기에는, 여러 개의 HBM이 GPU 주변을 둘러싸고 있습니다.

이 둘은 따로 움직이는 부품이 아니라, 하나의 시스템처럼 함께 작동합니다.

AI 모델이 점점 커질수록, GPU뿐 아니라 HBM 성능도 함께 발전해야 하는 이유가 여기에 있습니다.

HBM은 어떻게 만들어질까

HBM은 일반 D램처럼 한 장의 칩으로 끝나는 제품이 아닙니다.

가장 아래에는 베이스 다이가 있습니다.

이 위에 메모리 칩을 여러 장 차곡차곡 쌓습니다.

현재는 보통 8단이나 12단 제품이 많이 사용되고 있으며, 앞으로는 16단 이상도 점점 늘어날 전망입니다.

여기서 가장 어려운 과정은 쌓는 것 자체가 아니라, 정확하게 붙이는 것입니다.

D램 한 장의 두께는 머리카락보다 훨씬 얇습니다.

이 얇은 칩을 여러 장 겹친 뒤, 열과 압력을 가해 하나의 제품으로 만들어야 합니다.

조금만 휘어져도 불량이 발생합니다.

먼지 하나만 들어가도, 전체 제품을 버려야 하는 경우가 생깁니다.

그래서 HBM 생산 공장은, 일반 반도체 공정보다도 훨씬 엄격한 환경에서 운영됩니다.

SK하이닉스와 삼성전자의 제조 방식은 무엇이 다를까

두 회사 모두 HBM을 만들지만, 접근 방식에는 차이가 있습니다.

SK하이닉스는 MR-MUF라는 공법을 사용합니다.

쉽게 말하면, 여러 층을 한 번에 접착하는 방식입니다.

한 번에 많은 제품을 만들 수 있기 때문에, 생산성이 높다는 장점이 있습니다.

반면 삼성전자는 TC-NCF 공법을 사용합니다.

한 층씩 접착 필름을 넣으며 쌓는 방식입니다.

생산 속도는 다소 느릴 수 있지만, 정밀도가 높다는 평가를 받습니다.

공법 채택 회사 특징
MR-MUF SK하이닉스 여러 층 한 번에 접착, 생산성 높음
TC-NCF 삼성전자 한 층씩 접착, 정밀도·안정성 높음

어느 방식이 무조건 더 좋다고 말하기는 어렵습니다.

8단에서는 생산성이 중요할 수 있고, 16단 이상에서는 안정성이 더 중요해질 수도 있습니다.

그래서 업계에서는, 앞으로 적층 수가 계속 늘어나면 두 기술의 장점을 결합한 새로운 공법이 등장할 가능성도 거론하고 있습니다.

HBM4부터 경쟁 방식이 달라지는 이유

지금까지 HBM 경쟁은, 메모리를 얼마나 잘 쌓느냐가 핵심이었습니다.

하지만 차세대 제품인 HBM4부터는 새로운 요소가 등장합니다.

바로 베이스 다이입니다.

기존에는 메모리를 연결하는 역할이 중심이었다면, HBM4에서는 더 복잡한 제어 기능을 수행하는 로직 칩으로 발전합니다.

여기서 삼성전자가 기대를 받는 이유가 있습니다.

삼성전자는 메모리, 파운드리, 첨단 패키징 기술을 모두 보유하고 있습니다.

반면 SK하이닉스는 메모리 기술은 세계 최고 수준이지만, 첨단 로직 생산은 외부 파운드리와 협력해야 합니다.

그래서 HBM4 이후에는, 지금과는 다른 경쟁 구도가 펼쳐질 가능성이 있습니다.

다만 아직 양산 초기 단계인 만큼, 어느 회사가 우위를 차지할지는 조금 더 지켜볼 필요가 있습니다.

앞으로 HBM 시장은 어떻게 될까

HBM은 이미 반도체 시장의 새로운 주류가 되고 있습니다.

과거 메모리 시장은 PC와 스마트폰이 중심이었습니다.

그래서 메모리 회사들은, 얼마나 싸게, 얼마나 많이 생산하느냐가 가장 중요했습니다.

하지만 AI 시대는 다릅니다.

이제는 얼마나 많이 만드는지보다, 얼마나 고성능의 HBM을 안정적으로 공급할 수 있는지가 경쟁력이 됐습니다.

실제로 시장조사기관들은, HBM 시장이 앞으로도 높은 성장세를 이어갈 것으로 전망하고 있습니다.

AI 모델이 커질수록 메모리 대역폭 수요도 함께 증가하기 때문입니다.

쉽게 말하면, AI가 발전할수록 HBM도 함께 성장할 가능성이 높다는 뜻입니다.

HBM이 일반 D램을 모두 대체할까

그렇지는 않습니다.

이 부분을 오해하는 사람이 많습니다.

HBM은 비싸고 만들기 어려운 메모리입니다.

노트북, 스마트폰, 사무용 PC, 이런 제품에는 굳이 사용할 필요가 없습니다.

일반 승용차에 F1 레이싱 엔진을 넣지 않는 것과 같습니다.

가격도 비싸고 유지비도 많이 들기 때문입니다.

HBM은 AI 서버처럼, 초당 엄청난 양의 데이터를 처리해야 하는 환경에서만 진가를 발휘합니다.

메모리 종류 주요 역할
일반 D램 PC, 사무용 기기
모바일 D램 스마트폰 등 모바일 기기
HBM AI 서버 등 초고성능 영역

따라서 앞으로 메모리 시장은, 일반 D램, 모바일 D램, HBM이 각각 역할을 나누는 구조가 될 가능성이 큽니다.

HBM이 모든 메모리를 대체하는 것이 아니라, 가장 고성능이 필요한 영역을 담당하는 프리미엄 제품으로 성장하는 것입니다.

HBM이 중요한 진짜 이유

많은 사람이 HBM을 "비싼 메모리" 정도로 생각합니다.

하지만 업계에서는 조금 다르게 봅니다.

HBM은 AI 산업 전체의 속도를 결정하는 부품입니다.

GPU가 아무리 좋아져도, HBM 공급이 부족하면 GPU도 생산할 수 없습니다.

실제로 최근 몇 년 동안 AI 반도체 업계에서는, "GPU 부족"보다 "HBM 부족"이 더 큰 문제라는 이야기가 자주 나왔습니다.

HBM은 이제 메모리가 아니라, AI 산업의 핵심 인프라가 된 것입니다.

Economy Reader 투자 인사이트

투자자의 입장에서 HBM을 이해할 때 가장 중요한 것은, "메모리 시장이 바뀌고 있다"는 점입니다.

예전 메모리 산업은 경기 영향을 크게 받았습니다.

수요가 조금만 줄어도 가격이 급락했고, 기업들은 적자를 반복했습니다.

하지만 HBM은 조금 다릅니다.

AI 기업들은 최신 GPU와 HBM을 확보하지 못하면, AI 서비스를 확장할 수 없습니다.

즉, 단순히 메모리를 사는 것이 아니라, 사업을 계속하기 위해 반드시 필요한 부품이 된 것입니다.

그래서 최근에는 HBM 공급 계약도, 과거보다 장기화되는 모습이 나타나고 있습니다.

물론 이것이 메모리 산업의 변동성이 완전히 사라졌다는 뜻은 아닙니다.

AI 투자 속도가 둔화되거나 공급이 크게 늘어나면, 가격도 영향을 받을 수 있습니다.

하지만 적어도 과거처럼 PC와 스마트폰 판매량만 바라보던 시대와는, 시장 구조가 달라지고 있다는 점은 분명합니다.

투자자는 "HBM 시장이 성장한다"는 사실보다, 다음 세 가지를 계속 확인해야 합니다.

누가 안정적으로 생산하는지, 누가 엔비디아·AMD·브로드컴 같은 고객사를 확보하는지, 차세대 HBM4와 HBM4E 경쟁에서 앞서는지입니다.

결론

HBM은 단순히 성능이 좋은 메모리가 아닙니다.

AI 시대에 GPU가 제 성능을 발휘하도록 만드는 핵심 기술입니다.

기존 D램이 데이터를 보관하는 역할에 집중했다면, HBM은 막대한 데이터를 끊임없이 공급하는 초고속 물류 시스템에 가깝습니다.

그래서 AI 산업이 성장할수록, HBM의 중요성도 함께 커지고 있습니다.

현재는 SK하이닉스가 시장을 이끌고 있지만, 삼성전자와 마이크론도 차세대 HBM을 앞세워 추격하고 있습니다.

앞으로 HBM 경쟁은 단순한 메모리 경쟁이 아니라, AI 시대 반도체 패권을 결정하는 경쟁으로 이어질 가능성이 높습니다.

FAQ

Q. HBM은 일반 D램보다 무엇이 다른가요?

A. 가장 큰 차이는 구조입니다.

일반 D램은 평면으로 배치되지만, HBM은 여러 장의 D램을 수직으로 쌓고 TSV로 연결합니다.

이를 통해 훨씬 넓은 데이터 통로를 확보해, AI에 필요한 대용량 데이터를 빠르게 처리할 수 있습니다.

Q. HBM은 왜 AI에 꼭 필요한가요?

A. AI GPU는 초당 엄청난 양의 데이터를 처리합니다.

기존 메모리는 데이터를 공급하는 속도가 부족해, GPU가 기다리는 병목이 발생합니다.

HBM은 이 병목을 줄여, GPU가 계속 연산할 수 있도록 돕습니다.

Q. HBM이 비싼 이유는 무엇인가요?

A. 여러 장의 D램을 초정밀 공정으로 쌓아야 하고, 하나만 불량이어도 전체 스택을 폐기해야 하는 경우가 많아 제조 난도가 매우 높습니다.

Q. HBM4부터 무엇이 달라지나요?

A. HBM4는 메모리만 쌓는 기술을 넘어, 베이스 다이의 역할이 커지고, 메모리와 로직의 통합이 더욱 중요해집니다.

이에 따라 파운드리와 첨단 패키징 기술의 중요성도 함께 커질 것으로 예상됩니다.


※본 글은 투자 참고용이며, 투자 책임은 본인에게 있습니다.

라벨:

댓글

댓글 쓰기